Context Engineering这一概念的提出,对于Agent开发的交付质量提升到了专业工程学的高度,它要求你的系统要尽最大可能确保LLM上下文准确无误。 资深的AI从业者Nate Jones,最近在他的YouTube视频中指出,他把Context Engineering大体分成两部分。 Prompt Engineering可以认为是Context Engineering的一个子集。 Prompt Engineering解决一次性的prompt设计问题,一般来说由工程师手工编辑prompt,并提前写入程序代码或配置中;而Context Engineering解决的是Agent系统在长时间运行过程中的 Context Engineering的概念就告诉我们,下一步我们不应该一味地追求模型提供更长的上下文窗口,而是应该追求更聪明的上下文管理机制。
# Context Engineering 是什么 Context Engineering 被视为 Prompt Engineering 的演进和更高层次的版本。 ## 与 Prompt Engineering 的关系 - Context Engineering 是 Prompt Engineering 的更高层次版本。 如果说 Prompt Engineering 像学习如何提出好问题,那么 Context Engineering 更像图书馆员决定读者在阅读前能接触到哪些书籍。 - Prompt Engineering 被认为是 Context Engineering 的一个子集。即使拥有所有上下文,如何将其组织到提示中仍然至关重要。 ## 重要性 - 随着 LLM 上下文窗口的显著扩大,Context Engineering 的重要性也随之凸显。
聊到与大模型(LLM)交互,你可能首先想到的是 “提示工程”(Prompt Engineering)。但今天,我们要聊一个更深、更广的概念——“上下文工程”(Context Engineering)。 Context Engineering 之所以在当前阶段的重要性被放大,其主要背景是如何更好的解决大模型自身存在的一些根本性局限问题。 context 里有什么? 为了系统地设计和理解上下文,我们需要把它拆开看看。 上下文干扰 (Context Distraction) 大量上下文淹没了模型的原始指令,导致其“跑偏”,忘了最初的任务目标。 上下文冲突 (Context Clash) 上下文的不同部分包含了相互矛盾的信息。
Context Engineering与Prompt Engineering的关系与区别 在深入探讨Context Engineering之前,我们需要理解它与Prompt Engineering的关系 如果说Prompt Engineering是"问话的艺术",那么Context Engineering就是"环境构建的科学"。 Context Engineering的实践应用 系统提示的设计与优化 让我们通过一个具体的例子来看Context Engineering在实际中的应用。 这是一种巧妙的Context Engineering应用,它使应用程序更具动态性、更经济、效率更高。Context Engineering不仅仅是优化提示,更是根据设定的目标选择合适的上下文。 Context Engineering的未来发展 Context Engineering将继续演变为AI开发者和工程师的一项重要技能集合。
Harnessengineering:leveragingCodexinanagent-firstworld」(https://openai.com/zh-Hans-CN/index/harness-engineering 发布官方博客的同一时期,Anthropic也发布了题为「Harnessdesignforlong-runningapplicationdevelopment」(https://www.anthropic.com/engineering 从学科角度看,HarnessEngineering是一门设计约束(constraints)、上下文(context)和反馈循环(feedbackloops)来围绕AI模型构建可靠系统的学科。 Prompt/Context/HarnessEngineering各司其职PromptEngineering(2023-2024)关注「怎么跟AI说话」精心设计一段提示词,希望模型给出理想输出。
大模型发展这两年,应用型 AI 的焦点一直在 “提示工程”(prompt engineering),但随着更强大的大语言模型(LLM)走向多轮、长时间的自主行动,一个更关键的概念开始走到台前:上下文工程 (context engineering)。 本文是参考 Claude 官网博客的总结,文章原文:https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents 模型上下文越长,性能不一定越好,大量基准研究揭示了 “上下文腐化” (context rot):当上下文 token 增加,模型从中准确检索信息的能力会下降,这不是某个模型的特例,而是普遍现象,只是不同模型的退化曲线更缓或更陡
把这些东西怎么选、怎么排布、怎么取舍和压缩,就是 Context Engineering。 在 Context Engineering 2.0 这篇论文中,作者给出了一个更具哲学意味的定义: Context Engineering 是设计与优化上下文的收集、存储、管理与使用的系统性过程,旨在弥合人类 Memory 是 Context Engineering 管道里专门面向“人 + 时间”的熵减工具。 秘密除了模型本身的推理能力(IQ),还在 Context Engineering 的策略上。 这就是 Context Engineering 在工程侧最极致的减熵体现。
一个新的概念产生了,叫做 Context Engineering(上下文工程) 。 本周看到一篇论文,叫做 "A Survey of Context Engineering for Large Language Models" ,是一篇关于上下文工程的综述性的文章,基于这篇论文,我们一起学习一下上下文工程这个新的概念 概括来说,Prompt Engineering 更偏“术”——讲究技巧和窍门;而 Context Engineering 则趋于“道”——讲究原理和系统方法 。 一方面,它包括传统的Prompt Engineering技巧,即基于任务需求生成适当的提示或示例作为上下文的一部分 。 这类上下文压缩(Context Compression) 技术非常常用 。
承接上篇对Context Engineering的探讨,本文将聚焦多智能体框架中的上下文管理实践。 Context Engineering Tips从开源框架和我们日常的开发实践中,优化多智能体上下文管理有以下一些思路。 上文隔离 (Isolate Context): Supervisor-Worker模式的核心。 上文分解 (Decompose Context): Supervisor(Planner)将复杂任务拆解为独立步骤。每个步骤复杂度降低,对应负责Worker的上文也随之简化。 响应后终止对话,清空历史消息(Discard Context策略)。核心规划模块(Plan):结构化推理与上下文处理设计: 采用外层Plan + 内层Steps结构。
Context管理:此节点本身不修改Context,仅基于Reflection的Context进行流程控制。 5. Context管理 Gemini的Context管理 模块化隔离: 每个节点聚焦特定任务,使用特定的Context输入(如Generate Query只用原始Query,Web Research用特定Query Manus的Context管理 线性增长: 整个任务由一个智能体完成,Context随执行步骤线性增长,每一步都使用前置的所有message信息。 潜在挑战: 步骤间Context隔离可能导致信息重复/冲突;全局规划器传递任务时可能丢失细节(Context Gap)。 单个Step执行Context。
今天我将系统阐述AI工程范式的演进路径,深入剖析Context Engineering(上下文工程)的核心架构与关键技术,希望能帮助到大家。一、范式转移:从静态指令到动态上下文1. Context Engineering的崛起本质区别:维度Prompt EngineeringContext Engineering目标优化单次指令构建动态上下文系统范围单轮交互多源数据流整合关键技术指令设计 RAG/向量数据库/工作流编排上下文范畴:如果对智能体不熟悉的朋友,我这边分享一个关于AI Agent的技术文档,粉丝朋友自行领取:《想要读懂AI Agent(智能体),看这里就够了》二、Context Engineering技术支柱1. LangGraph实现工作流引擎作者结语Context Engineering不是简单替换Prompt Engineering,而是构建可扩展AI系统的必由之路。
下图是比较符合需求分析的流程的 Requirement Spec 如下, 大致如下: https://www.javatpoint.com/software-engineering-requirement-engineering
在这里,我们讨论了几个撰写提示(输入模型的内容)的原则和技巧,这些提示将帮助您为您的任务获得最佳的生成结果。选择正确的温度也会对生成质量产生很大的影响,我们会在这里单独讨论温度。
在这里,我们讨论了几个撰写提示(输入模型的内容)的原则和技巧,这些提示将帮助您为您的任务获得最佳的生成结果。选择正确的温度也会对生成质量产生很大的影响,我们会在这里单独讨论温度。
. \ In many cases, longer prompts provide more clarity \ and context for the model, which can lead to provided to guide a model towards the desired output, and longer prompts can provide more clarity and context employee concerns Make a news alert for certain topics: topic_list = [ "nasa", "local government", "engineering story}''' """ response = get_completion(prompt) print(response) output: nasa: 1 local government: 0 engineering ({'role':'user', 'content':f"{prompt}"}) response = get_completion_from_messages(context) context.append
在16年的一项调查中发现,数据科学家的工作中,有80%的时间都在获取、清洗和组织数据。构造机器学习流水线的时间不到20%。详情如下:
Prompt Engineering 完整指南 Prompt Engineering 是与 AI 模型进行交互的关键技术,通过精心设计的指令(prompt)引导模型生成高质量的输出。 总结 Prompt engineering 是与 AI 模型进行高效交互的关键技术。通过遵循上述原则和策略,你可以显著提高模型输出的质量和相关性。
ReferenceSoftware Engineering at Google
In-context learning:通过指令或演示来提示模型完成它的任务。例如,给模型提供一些关于某个概念的具体例子作为上下文,然后让模型根据这些例子来推断新的输入与该概念的关系。
Requirement Engineering 是 gather, analyze and document 需求的process 目标是 ‘System Requirements Specification ambiguities If they are complete If they can be demonstrated https://www.tutorialspoint.com/software_engineering